#terminal agents

3 篇

Terminal-RSI: Recursive Self-Improving Terminal Agents via Recursive Self-Rewrite and Policy-Refine

Terminal-RSI：通过递归自改写与策略精炼实现终端智能体递归自改进

🧭 终端 Agent 递归自改进强化学习

Tencent Hy Frontier · National University of Singapore · University of Maryland, College Park · University of Georgia · Indiana University

用递归自改写与策略精炼交替训练，把终端 Agent 验证反馈转成策略提升

📌 工作参考价值（4 点）

可借鉴「验证轨迹重写 + 策略精炼」的交替训练范式：用业务中的 reward/verifier 信号找出成功或部分成功轨迹，先重写成更优示范再做策略更新，适合电商 Agent 的任务完成型 RL。
TB-GAE 对多轮交互做 token 级信用分配时保留衰减：在搜索/推荐 Agent 的多轮对话 RL 中，可按 turn 边界做 skip-observation GAE，避免跨 turn 的 token baseline 偏移。
FDR 与 SPR 的奖励设计适合业务落地：按任务族做 dense progress reward 校准，同时把严格成功与有界部分奖励解耦，可减少 reward hacking 并稳定训练。
Warm-up Critic 与 stage-specific LR 可迁移到多阶段 RLHF/RLAIF：先预热 critic 再更新 policy，且不同阶段用不同学习率，能提升生成式推荐的训练稳定性。

Agent | 2026-10-14 | HF Daily | score 7/10

终端智能体简单训练配方 Tmax

🧭 终端 Agent 强化学习训练配方

Allen Institute for AI · University of Washington

用分类法生成数据 + 仅结果奖励 RL，9B 模型在 Terminal-Bench 2.0 上达 27%，超越更大模型

📌 工作参考价值（4 点）

数据生成策略可复用：通过难度控制、角色多样化和验证器多样化生成大规模合成训练环境，这套方法可直接用于生成推荐系统智能体的指令或交互数据，尤其适合构建面向开发者的推荐工具 Agent。
仅结果奖励的 RL 简单有效：在推荐 Agent 的在线学习场景中，无需设计复杂中间奖励，直接使用最终任务成功与否作为信号，降低工程开销，且对超参不敏感。
开源基线可直接加速实验：Tmax 的数据集（2.5 倍于先前最大公开集）和模型可作为起始点，快速验证终端交互类 Agent 在推荐基础设施运维或自动化部署中的应用。
小模型通过 RL 可超越大模型：9B 参数模型经过 RL 训练后性能超过 32B 模型，对资源受限的推荐团队有强提示：精调小模型 + 针对性的 RL 数据可能比盲目上大模型更划算。

Agent | 2026-06-21 | HF Daily | score 6/10

ECHO：将终端反馈转化为免费世界模型训练的智能体强化学习

🧭 终端智能体 · 稀疏奖励 · 世界模型 ★ 深度解读

Microsoft Research

ECHO在GRPO中增加环境观测token的交叉熵损失，将终端输出变为稠密监督，在TerminalBench-2.0上pass@1翻倍。

📌 工作参考价值（4 点）

业务中若存在交互式环境（如对话Agent、推荐模拟器），可将环境返回的文本（如用户反馈、系统日志）直接作为辅助预测目标，在RL损失中加入交叉熵项，为失败样本提供稠密梯度，加速策略学习。
该方法仅需修改损失掩码，重用已有前向计算，无需额外模型或rollout，工程实现成本极低，适合在现有GRPO或PPO训练流程中快速试验。
在电商对话或任务型Agent中，可将用户对每次回复的直接反应（如点击、评价文本）作为“环境观测token”，训练模型预测自身行为的后果，隐式学习用户模型，从而减少对稀缺成功轨迹的依赖。
入的“无验证器适应”实验表明，即使没有奖励信号，仅凭预测环境反馈也能在OOD任务上持续改进，这为在线持续学习或冷启动场景提供了思路：可在无人工标注时仅通过模拟交互提升模型。

Agent | 2026-05-22 | HF Daily | score 9/10